Como o Twitter reforça estereótipos e preconceitos?

Vá no seu perfil do Twitter e poste a foto de um homem negro e um branco. Recentemente, vários usuários relataram a experiência de que a rede exclui pessoas negras.

O sistema que mostra as fotos no feed em questão foi projetado para otimizar a visualização de imagens na rede social. Quando você publica uma foto grande demais e/ou fora das proporções aceitas pela plataforma, ela automaticamente escolhe uma porção do retrato para exibir, priorizando rostos humanos que porventura sejam identificados — é necessário clicar na imagem para visualizá-la por completo. Até aí, tudo bem.

O problema é que alguns usuários perceberam que esse sistema prioriza, na grande maioria das vezes, rostos de pessoas brancas em vez de indivíduos negros. A polêmica começou quando o programador Tony Arcieri fez uma série de testes em seu perfil, compartilhando montagens que juntavam os rostos do senador Mitch McConnel e do ex-presidente Barack Obama. O sistema sempre priorizava o rosto de Mitch. Aqui embaixo segue a experiência dele:

Somente em maio deste ano, o Twitter reconheceu publicamente o que muitas pessoas na rede social já desconfiavam: o mecanismo de inteligência artificial (IA) que recortava imagens postadas na plataforma privilegiava pessoas brancas. Em post divulgado no seu blog oficial, a diretora de engenharia de software da empresa, Rumman Chowdhury, reconheceu o erro ao compartilhar os resultados de um experimento interno que avaliou o funcionamento do algoritmo.

“Mesmo que o algoritmo de saliência fosse ajustado para refletir com igualdade perfeita entre gênero e raça, nos preocupamos com ofensas de representação de algoritmos automatizados quando pessoas não podem ser representadas da forma que queiram na plataforma. O algoritmo também apresenta potencial de ofensas no seu escopo de análise, inclusive insensível a nuances culturais”, reconhece Chowdhury.

O Twitter tem 15 anos e, desde a sua fundação, somente agora tal erro foi observado e, mesmo assim, após grande mobilização social. A grande questão que fica é onde mais as redes sociais, conscientes ou não de suas atribuições, atuam de modo a reforçar estereótipos e preconceitos que, no mundo “offline”, lutamos tanto para acabar.